Постійна експозиція музею розкриває деякі сторінки київської історії, представляючи її через розповідь про життя киян — видатних, відомих і невідомих.

Відвідувачі музею мають можливість побачити матеріали киян, які розкривають різні аспекти життя мешканців міста: торгівля, освіта, наука, мистецтво, релігія, війна тощо. Серед експонатів, які прикрашають нинішню експозицію, — археологічні пам’ятки періоду Київської Русі, символ міського самоврядування — барельєф Архангела Михаїла з міської ратуші, особисті речі викладачів і випускників колегії П. Галагана, актриси М. Заньковецької, живописні роботи М. Пимоненка, О. Мурашка, В. Котарбінського, Г. Світлицького, С. Шишка та багато ін.

Крім цього, музей має дві виставкові зали для тимчасових виставок на першому поверсі та конференц-зал на четвертому поверсі.

Ініціатива створення цього музею належить Новицькому Олексію Петровичу. Музей створений за постановою Ради Міністрів УРСР від 14 листопада 1978 року.

Фонди музею формувалися на базі експонатів, переданих із Інституту археології Академії наук УРСР, а також подарунків від підприємств та установ.

Першу експозицію відкрили 26 травня 1982 року (до 1500-річчя Києва). Музейне зібрання складалося з археологічних матеріалів, знайдених на території міста, етнографічної та нумізматичної колекцій, колекції ікон, стародруків, поштових листівок, побутових речей киян різних часів, а також тематичних комплексів ХХ ст.